Ngày 24 tháng 11 năm 1960, linh mục Micae Nguyễn Khắc Ngữ được Toà Thánh bổ nhiệm làm Giám mục tiên khởi Giáo phận Long Xuyên mới được thành lập. Ông đã chọn khẩu hiệu: "Christus in vobis" (Đức Kitô trong anh em).[3] Lễ tấn phong Giám mục được cử hành ngày 22 tháng 1 năm 1961 tại Sài Gòn do Tổng giám mục chính tòa Tiên khởi Tổng giáo phận Huế Phêrô Máctinô Ngô Đình Thục chủ phong và hai giám mục phụ phong gồm giám mục Jean Cassaigne Sanh, nguyên Đại diện Tông Tòa Hạt Đại diện Tông Tòa Sài Gòn và giám mục Tađêô Lê Hữu Từ, nguyên Đại diện Tông Tòa Hạt Đại diện Tông Tòa Phát Diệm.[3]

Ngày 4 tháng 4 năm 1961, Giám mục Micae Nguyễn Khắc Ngữ chính thức nhận giáo phận mới và cai quản đến ngày 30 tháng 12 năm 1997 thì được Toà Thánh chấp nhận cho nghỉ hưu[3] tại Tòa Giám mục Long Xuyên và trao quyền kế vị cho Giám mục Gioan Baotixita Bùi Tuần. Khi đó Giám mục Micae Nguyễn Khắc Ngữ đã 89 tuổi.[4]

Giám mục Nguyễn Khắc Ngữ là một tròng các nghị phụ Việt Nam tham dự đầy đủ bốn giai đoạn của Công đồng Vatican II diễn ra từ năm 1962 đến năm 1965.[4]

Ông qua đời ngày 10 tháng 6 năm 2009, tại Long Xuyên, An Giang, thọ 100 tuổi.[5] Thánh lễ an táng được cử hành sau đó vào ngày 15, với 12 giám mục đồng tế, giám mục Gioan Baotixita Bùi Tuần tham dự cùng nhiều linh mục tham dự đồng tế. Các thành phần tham dự bao gồm tu sĩ nam nữ, cựu chủng sinh, thân nhân của cố giám mục và một số khách mời, giáo dân.[6]

Sau lời nguyện hiệp lễ, Giám mục Giuse Trần Xuân Tiếu đại diện giáo phận cảm ơn Toà Thánh đã gửi điện văn chia buồn của Hồng y Ivan Dias – Tổng trưởng Bộ Truyền giáo, Giám mục Chủ tịch Hội đồng Giám mục Việt Nam, các giám mục, các linh mục Tổng Đại diện, đại diện giám mục, bề trên dòng, các linh mục tu sĩ và giáo dân.[6]